Prendre le temps de déterminer ce qui a de la valeur au-delà de cette tâche spécifique et de le réintégrer dans votre configuration est la chose la plus efficace que vous puissiez faire.
De nos jours, tout le monde court après le développeur x10. L’IA peut vous rendre dix fois plus productif, disent-ils. Expédiez dix fois plus vite. Faire le travail d'une équipe.
Lorsque j'ai commencé à utiliser l'IA pour le codage, la décision évidente était d'aller plus vite : connecter le meilleur LLM à la base de code, lui confier une tâche adaptée en taille et en complexité, et la regarder changer le code plus rapidement que je ne peux en suivre. Cela n'a pas fonctionné. Le modèle produirait des choses qui semblaient correctes, mais je passerais plus de temps à corriger et à retracer qu'il ne m'en aurait fallu pour le construire moi-même. Tous les 6 mois, un nouveau modèle ou outil sortait pour améliorer les choses, mais rien ne comblait vraiment l'écart. Je pense que je suis arrivé à x1,25, peut-être.
Petit à petit, je suis revenu aux vieux principes. TDD, tests de réception, analyses statiques : contraintes structurelles autour des zones à risque. Tâche après tâche, je rétrospecterais, corrigerais, généraliserais et automatiserais les éléments prenant en charge le codage du modèle. Et ça a commencé à fonctionner. Non pas parce que le modèle s’est amélioré, mais parce que tout autour de lui s’est amélioré. La qualité du travail a augmenté et la vitesse a suivi sans que je l'optimise directement. À un moment donné, l’attention requise par tâche a suffisamment diminué pour que je puisse en exécuter deux en même temps. Puis trois. Mon pic actuel est constitué de trois tâches de codage en cours et d'un brainstorming de conception, le tout exécuté en même temps.
Voici ce que j'en pense. x10 se décompose en deux axes : scale-up, où chaque tâche est effectuée plus rapidement, et scale-out, où vous pouvez exécuter plus de tâches simultanément. Si vous ne pouvez atteindre que x√10 sur chaque axe, vous obtenez un total de x10. √10 = 3,16 . C'est de là que vient le titre.
Ce qui suit est la méthode. Comment je pense au système, comment je l'optimise et à quoi ressemblent les boucles de rétroaction. Les outils et flux de travail spécifiques reçoivent leur propre article.
So the first thing to understand about LLMs, they're basically trained to predict what comes next in a sentence, and then fine-tuned to be helpful. Ce qui signifie qu’ils ont une profonde envie de vous donner quelque chose qui ressemble à une bonne rép...
[Courte citation de 8% de l'article original]